Cuando Jacob Coxon renunció a Anthropic en septiembre y advirtió que la inteligencia artificial (IA) podría acabar con la civilización humana, su publicación obtuvo más de 170 millones de visitas en 48 horas. Pero lo más revelador no es por qué un investigador se marchó, sino por qué los profesionales más preocupados por la seguridad en la industria solo pueden expresar su inquietud renunciando a sus puestos.
La advertencia de Coxon llegó la misma semana en que Anthropic ultimaba los preparativos para la que podría convertirse en la mayor salida a bolsa de la historia. Anthropic presentó un formulario S-1 confidencial ante la Comisión de Bolsa y Valores de EE. UU. el 1 de junio, con el objetivo de alcanzar una valoración de 965.000 millones de dólares, y espera completar su cotización antes de las elecciones de mitad de mandato en EE. UU. en noviembre. Según Reuters, Nvidia está en conversaciones para liderar la oferta con una valoración de 2 billones de dólares.
La promesa de seguridad que desapareció
El director ejecutivo de Anthropic, Dario Amodei, ha pedido públicamente que se ralentice el desarrollo de la IA para que los sistemas de seguridad puedan ponerse al día, pero el calendario de salida a bolsa de su empresa no muestra ninguna desaceleración correspondiente. En febrero de 2026, Anthropic publicó la versión 3.0 de su Política de Escalado Responsable, que eliminó el compromiso anterior de la empresa de pausar el entrenamiento de los modelos si los riesgos no podían mitigarse adecuadamente.
El compromiso de «pausar la formación» simplemente desapareció del documento, sustituido por un lenguaje más suave sobre «desarrollo responsable» y mecanismos de transparencia. Como señaló un análisis del medio de noticias tecnológicas chino 36Kr, los límites de seguridad de Anthropic se han vuelto dinámicamente ajustables.
Esta es la contradicción estructural que subyace al debate sobre la seguridad de la IA. Las empresas advierten sobre el riesgo para la civilización mientras se apresuran a comercializar la tecnología a una velocidad sin precedentes.
El director ejecutivo de OpenAI, Sam Altman, captó la ironía sin rodeos, comparando el enfoque de Anthropic con el marketing basado en el miedo: «Es claramente una estrategia de marketing increíble decir: ‘Hemos construido una bomba. Estamos a punto de lanzarla sobre tu cabeza. Te venderemos un refugio antibombas por 100 millones de dólares para que se esparza por todas tus pertenencias, pero solo si te elegimos como cliente'».
Más allá de la salida a bolsa
La tensión entre la retórica de seguridad y el comportamiento comercial va más allá de las solicitudes de salida a bolsa. El 10 de septiembre, la misma semana en que la renuncia de Coxon se hizo viral, Anthropic publicó un informe de inteligencia sobre amenazas de 154 páginas que revelaba que su propio modelo Claude se había utilizado para el desarrollo de armas, la recopilación de inteligencia militar, ciberataques y fraude.
Anthropic reconoció que sus mecanismos de seguridad, si bien bloqueaban algunas infracciones, no podían prevenir por completo el uso indebido. La empresa también restringió el acceso a su modelo más potente a través del Proyecto Glasswing, limitándolo a aproximadamente 200 organizaciones. Y tras una orden del Departamento de Comercio de EE. UU., excluyó por completo a los ciudadanos extranjeros, incluida la agencia de ciberseguridad de la UE, ENISA.
La brecha de gobernanza no se limita a los consejos de administración de las empresas. El Panel Científico Internacional Independiente de la ONU sobre IA advirtió en julio que la IA está «superando tanto el conocimiento científico como la capacidad de adaptación de los gobiernos». El panel señaló específicamente una fase de autonomía «agente» que los marcos de supervisión actuales no pueden gestionar, lo que podría permitir que surjan capacidades peligrosas antes de que los gobiernos puedan responder.
La UE ha aplazado los plazos de cumplimiento para los sistemas de IA de alto riesgo de agosto de 2026 a diciembre de 2027, alegando la necesidad de disponer de más tiempo para la preparación de las normas y la infraestructura regulatoria.
Un modelo de gobernanza diferente
En este contexto de contradicciones corporativas y retrasos regulatorios, el enfoque de China ha sido notablemente diferente en su metodología, aunque no siempre en su ritmo. Las medidas de gestión chinas sobre servicios de IA generativa, implementadas en agosto de 2023, fueron las primeras regulaciones oficiales a nivel mundial que rigen dichos servicios. Hasta julio, 1028 servicios de modelos a gran escala habían completado su registro, con solicitudes que abarcan la industria, la agricultura, el comercio, la educación, el transporte y el derecho.
El Marco de Gobernanza de Seguridad de la IA del país, que ahora entra en su versión 3.0, traduce los principios de «clasificación, gobernanza ágil y gobernanza compartida» en planes de implementación prácticos, que abordan los riesgos derivados tanto de la tecnología en sí como de sus aplicaciones.
La iniciativa gubernamental china de internet «Qinglang» ha eliminado más de 5,61 millones de datos ilegales, gestionado más de 49 000 cuentas y clausurado más de 2400 sitios web y aplicaciones que infringían las normas relacionadas con el uso indebido de la IA. El país también creó en julio la Organización Mundial de Cooperación en IA, con 29 Estados miembros fundadores, y se comprometió a ofrecer 5000 oportunidades de formación en IA para países en desarrollo durante los próximos cinco años.
Una encuesta global de CGTN reveló que el 85,4 % de los encuestados cree que el rápido desarrollo de la IA está generando nuevos desafíos para la seguridad y la gobernanza globales. El 92,6 % expresó su preocupación de que las falsificaciones profundas y la desinformación generada por IA puedan erosionar la confianza social, y el 82,6 % considera que los países en desarrollo y el Sur Global deberían desempeñar un papel más importante en la definición de las normas de gobernanza de la IA.
La verdadera cuestión no es si las preocupaciones sobre la seguridad de la IA son genuinas —lo son—. La cuestión es si una industria que genera advertencias existenciales mientras se precipita hacia valoraciones de billones de dólares puede gobernarse a sí misma de forma creíble. El portavoz del Ministerio de Asuntos Exteriores chino, Guo Jiakun, lo expresó claramente el lunes: «El desarrollo de la IA concierne al bienestar común de toda la humanidad. Todas las partes deben colaborar para promover una IA abierta, inclusiva y beneficiosa. Difundir diversas narrativas de amenazas y participar en la confrontación y la competencia maliciosa solo perturbará el proceso de gobernanza global de la IA y no beneficiará a nadie».
Fuente: CGTN
